英伟达推出双层AI安全平台：可实时隔离异常智能体 毫秒级阻止违规行为

9月28日消息，英伟异常当地时间周一，达推英伟达发布一款名为“Open Agent Safety Platform”的出双层双层AI安全平台，包含两款开源软件工具OpenShell与Nvidia Sentry。全平

该平台可依托英伟达硬件架构运行，台可体毫实现对AI智能体访问权限的隔离实时管控，能够快速识别异常行为、智能阻止强制关停违规智能体。秒级

其中，违规开源软件OpenShell可在沙箱环境中运行AI智能体，英伟异常将用户指令转化为可验证的达推安全策略，并限制智能体对文件、出双层网络、全平工具、台可体毫进程和凭证的隔离访问。

Nvidia Sentry则将监控和安全控制延伸至BlueField数据处理单元，通过英伟达DOCA关联智能体交互、策略决策及工具和数据访问记录，用于识别异常行为并在必要时进行干预。

针对AI智能体安全风险，英伟达解释称，AI智能体可能因工具、运行时间、指令歧义等因素偏离既定任务，因此需要独立于智能体本身的安全控制。该平台针对英伟达Vera CPU和BlueField DPU系统优化，并兼容其他硬件系统。

同时，英伟达官方介绍，该平台具备毫秒级隔离异常代理，风控响应速度远超常规防护手段。官方直言如果相关实验室此前已部署这套技术，今年7月OpenAI模型攻击Hugging Face的事件本可被阻止。

与此同时，在监管问题上，黄仁勋近期多次强调，AI安全应更多通过技术手段解决，而非单纯依赖新的监管框架。

他也曾公开质疑部分AI开发者关于AI可能威胁人类生存的警告，同时强调AI系统仍必须经过严格的安全测试。

很赞哦!（3）